神经网络的激活函数及梯度消失

ICML 2016 的文章[Noisy Activation Functions]中给出了激活函数的定义：激活函数是映射 h:R→R，且几乎处处可导。 神经网络中激活函数的主要作用是提供 ...